Vi khuẩn Gram dương có thành tế bào dày, dạng lưới cấu tạo bởi peptidoglycan, chất này có khả năng giữ phức hợp tím tinh thể-iot. Trong khi đó, lớp thành tế bào peptidoglycan của các vi khuẩn Gram âm thì mỏng hơn và thường có thêm lớp màng lipopolysaccharide (LPS) bên ngoài.

Sau khi nhuộm với phức hợp tím tinh thể-iot, mẫu được xử lý tiếp với hỗn hợp khử màu, làm mất nước của các lớp peptidoglycan trong thành tế bào Gram dương, từ đó làm giảm khoảng trống giữa các phân tử và khiến thành tế bào bắt giữ phức hợp tím tinh thể-iot bên trong tế bào.

Đối với vi khuẩn Gram âm, hỗn hợp khử màu đóng vai trò là chất hoà tan lipit và làm tan màng ngoài của thành tế bào. Lớp peptidoglycan mỏng không thể giữ lại phức hợp tím tinh thể-iot và tế bào Gram âm bị khử màu. Khử màu là bước quan trọng và cần kĩ năng nhất định vì khả năng bắt màu Gram dương không phải là "tất cả hoặc không."

Theo kinh nghiệm (và có ngoại lệ), bệnh do vi khuẩn Gram âm thường nguy hiểm hơn vì màng ngoài của chúng được bọc bởi một nang, và nang này che các kháng nguyên làm cơ thể phát hiện tác nhân xâm lấn khó khăn hơn. Ngoài ra, màng ngoài vi khuẩn Gram âm có chứa lipopolysaccharide, đóng vai trò là ngoại độc tố và làm tăng độ nặng của phản ứng viêm, có thể gây sốc nhiễm khuẩn. Nhiễm vi khuẩn Gram dương thường ít nguy hiểm hơn vì cơ thể người không có peptidoglycan, và có khả năng sản xuất lysozyme tấn công lớp peptidoglycan nằm ở bên ngoài của vi khuẩn.